鉴于其精确，效率和客观性，深入学习（DL）在重塑医疗保健系统方面具有很大的承诺。然而，DL模型到嘈杂和分发输入的脆性是在诊所的部署中的疾病。大多数系统产生点估计，无需进一步了解模型不确定性或信心。本文介绍了一个新的贝叶斯深度学习框架，用于分割神经网络中的不确定量化，特别是编码器解码器架构。所提出的框架使用一阶泰勒级近似传播，并学习模型参数分布的前两个矩（均值和协方差，通过最大化培训数据来最大限度地提高界限。输出包括两个地图：分段图像和分段的不确定性地图。细分决定中的不确定性被预测分配的协方差矩阵捕获。我们评估了从磁共振成像和计算机断层扫描的医学图像分割数据上提出的框架。我们在多个基准数据集上的实验表明，与最先进的分割模型相比，所提出的框架对噪声和对抗性攻击更加稳健。此外，所提出的框架的不确定性地图将低置信度（或等效高不确定性）与噪声，伪像或对抗攻击损坏的测试输入图像中的贴片。因此，当通过在不确定性地图中呈现更高的值，该模型可以自评测出现错误预测或错过分割结构的一部分，例如肿瘤。
translated by 谷歌翻译
2021-11-10
在不确定，嘈杂或对抗性环境中学习是深度神经网络（DNN）的具有挑战性的任务。我们提出了一种在贝叶斯估计和变分推理时构建的强大学习的新理论上和有效的方法。我们制定通过DNN层层的密度传播的问题，并使用集合密度传播（ENDP）方案来解决它。ENPP方法允许我们在贝叶斯DNN的层上传播变分概率分布的片段，使得能够估计模型输出的预测分布的平均值和协方差。我们使用Mnist和CiFar-10数据集的实验表明，训练有素的模型的鲁棒性与随机噪声和对抗性攻击的稳健性显着改善。
translated by 谷歌翻译
机器学习模型在各种任务中取得了人力级别的性能。此成功以高成本的计算和存储开销，这使得机器学习算法难以在边缘设备上部署。通常，必须部分地牺牲精度，有利于在降低内存使用和能量消耗方面进行量化的性能。目前的方法通过减少参数的精度或通过消除冗余的方法压缩网络。在本文中，我们提出了通过贝叶斯框架的网络压缩的新洞察力。我们展示贝叶斯神经网络在模型参数中自动发现冗余，从而启用自压缩，这与通过网络层的不确定性传播链接。我们的实验结果表明，网络架构可以通过删除网络本身识别的参数来成功压缩，同时保持相同的准确度。
translated by 谷歌翻译
随着深度神经网络的兴起，解释这些网络预测的挑战已经越来越识别。虽然存在许多用于解释深度神经网络的决策的方法，但目前没有关于如何评估它们的共识。另一方面，鲁棒性是深度学习研究的热门话题;但是，在最近，几乎没有谈论解释性。在本教程中，我们首先呈现基于梯度的可解释性方法。这些技术使用梯度信号来分配对输入特征的决定的负担。后来，我们讨论如何为其鲁棒性和对抗性的鲁棒性在具有有意义的解释中扮演的作用来评估基于梯度的方法。我们还讨论了基于梯度的方法的局限性。最后，我们提出了在选择解释性方法之前应检查的最佳实践和属性。我们结束了未来在稳健性和解释性融合的地区研究的研究。
translated by 谷歌翻译